Генераторът на изображения с изкуствен интелект Midjourney блокира изображения на Байдън и Тръмп, докато изборите се задават
Популярният генератор на изображения с изкуствен интелект Midjourney започна да блокира своите потребители да създават фалшиви изображения на президента Джо Байдън и бившия президент Доналд Тръмп преди предстоящите Президентски избори в САЩ, според тестовете на инструмента за изкуствен интелект от Асошиейтед прес.
Тъй като изборите са в разгара си, време е „за малко да се спрем на неща, свързани с изборите“, каза главният изпълнителен директор на Midjourney Дейвид Холц пред няколкостотин членове на отдадената потребителска база на услугата в цифрово работно време събитие сряда.
Заявявайки, че „това модериране е някак трудно“, Холц не очерта точно какви промени в политиката се правят, но описа ограничаването като временна мярка, за да затрудни хората да злоупотребяват с инструмента. Компанията не отговори незабавно на искане за коментар в сряда.
Опитите на журналисти от AP да тестват новата политика на Midjourney в сряда, като поискаха от нея да направи изображение на „Ръкуващите се на плажа Тръмп и Байдън“ доведе до предупреждение „Открита е забранена подкана“. Вторият опит ескалира предупреждението до: „Задействахте сигнал за злоупотреба.“
Малката компания, която има само 11 служители според уебсайта си, до голяма степен запази мълчание в публичния дебат за това как генеративните AI инструменти могат да подхранят дезинформацията за изборите по света. Midjourney беше единственият производител на водещ инструмент за генериране на изображения, който не се присъедини към доброволен пакт за технологичната индустрия през февруари за борба с генерираните от AI дълбоки фалшификации, които умишлено мамят гласоподавателите.
„Наистина не ме интересува политическата реч“, каза Холц в сряда. „Това не е целта на Midjourney. Не ми е толкова интересно. Въпреки това, аз също не искам да прекарвам цялото си време в опити да контролирам политическата реч. Така че ще сме положили крака си малко надолу.“
Центърът за противодействие на цифровата омраза публикува доклад по-рано този месец, в който се заключава, че Midjourney вече се използва за създаване на изображения, които биха могли да подкрепят дезинформация за политически кандидати или неверни твърдения за изборни измами.
„Midjourney изглежда имаше най-малко контрол от който и да е AI генератор на изображения, когато ставаше дума за генериране на изображения на добре известни политически фигури като Джо Байдън и Доналд Тръмп“, каза Калъм Худ, ръководител на изследванията на групата, в интервю сряда. „Midjourney беше почти уникален както с желанието да генерира тези изображения, така и с генерирането на доста убедителни изображения на кандидати.“
Групата за наблюдение тества Midjourney, както и ChatGPT Plus на OpenAI, DreamStudio на Stability AI и Image Creator на Microsoft, и установи, че всички са имали проблеми, създавайки дезинформация за избори в 41% от случаите. Но „Midjourney се представи най-лошо от всички инструменти, като се провали в 65% от тестовете“, се казва в доклада.
Худ каза, че не е наясно дали Midjourney е променил политиките си тази седмица, но „решението му да блокира тези изображения ще помогне да се запечата голяма слабост в сравнение с други популярни генератори на изображения.“
В края на миналата седмица публичната база данни на Midjourney показва, че потребителите успешно са създали изображения въз основа на подкани като „Абстрактна снимка на Доналд Тръмп, седнал в малка електрическа кола“ и „Джо Байдън яде сладолед“.
Но това се промени през последните дни, тъй като потребителите съобщиха, че са получили предупреждение, когато се опитват да направят изображения на Байдън или Тръмп. Някои се оплакаха, че Midjourney не съобщава правилно променената политика.
Midjourney се различава от другите генератори на изображения по това, че е възможно потребителите да виждат писмените подкани и изображения на повечето други потребители, защото всичко се случва публично форуми в платформата за социални медии Discord. Групата Discord на Midjourney има повече от 19 милиона членове, най-голямата от всички групи в платформата за чат. Това е мястото, където Холц провежда седмичното си работно време, което може да премине в широкообхватни разговори за ИИ и бъдещето на човечеството.
„Всеки, който се страхува от фалшиви изображения през 2024 г., ще има трудна 2028 г.“ Холц каза в сряда. „В този момент ще бъде много различен свят. Както, очевидно все още ще имате хора, които да се кандидатират за президент през 2028 г., но те вече няма да бъдат чисто човешки.“
Всички кандидати по това време ще имат реално изглеждащи „deepfake chatbots“ със симулирани теми за разговор, каза той. Холц предупреди в сряда, че хората, които наистина искат да правят deepfakes, ще намерят алтернативи, които „могат да бъдат фино настроени за конкретни хора и ще работят по-добре от нашите системи.“
Базирана близо до Сан Франциско и основана през 2020 г., компанията описва себе си като „независима изследователска лаборатория, изследваща нови среди на мислене и разширяваща въображението на човешкия вид“. За първи път разкри публичната версия на своя генератор на изображения през юли 2022 г. Това – и пускането на ключов съперник, Stable Diffusion, по-късно това лято – предизвика нарастващо очарование от генеративната AI технология, която се засили с дебюта на ChatGPT няколко месеца по-късно.
Холц каза пред Асошиейтед прес по-късно същата година, че Midjourney работи за забрана на обидно и вредно съдържание, обикновено чрез блокиране на определени ключови думи и карайки екипа си от модератори да проследява резултатите и да отговаря на оплаквания от други потребители.
„Наистина се опитваме да позволим на хората да създават възможно най-широк набор от изображения, но всеки ден забраняваме на хората достъп до услугата“, каза Холц в края на 2022 г.
